neural network
人工神經網
neuron
Hebb 則
$ y=\varphi\left(\sum_{i=1}^m w_i x_i+b\right)
入力$ x_1,\dots,x_m
重み附け$ w_1,\dots,x_m
bias 項$ b
出力$ y
活性化函數$ \varphi
活性化函數 (activation function。傳達函數 (transfer function))
非線形函數でないと多層にする價値が無い
$ y=H\left(\sum_{i=1}^m w_i x_i-h\right)
閾値$ h
普遍近似定理 (universal approximation theorem)
小腦の model かもしれない
順傳播型 neural network (FFN) (feed-forward neural network)
gate 附き囘歸型 unit (GRU) (gated recurrent unit)
變分自己復號化器 (VAE。variational autoencoder)